미국 Flock Safety의 감시카메라 소프트웨어가 차량 번호판뿐 아니라 문자 묘사만으로 특정 인물을 카메라에서 자동 검색하는 AI 감시 목록(watchlist) 기능을 제공하며, 수십 건의 경찰 사생활 침해 사건의 중심에 있다. WIRED의 코드 분석에 따르면 Flock의 안전장치는 남용을 기록하고 일부 억제할 뿐 실제로 차단하지는 못하며, 정치·문화적 표현에 대한 검색은 유일하게 차단되지 않아 헌법적 우려를 낳고 있다.
텍사스 존슨카운티 보안관 사무소가 자가 낙태 여성을 전국 8만 대 이상의 Flock 카메라망으로 추적한 사건의 경찰 보고서를 Axon의 AI 도구 'Draft One'으로 작성한 것으로 드러났습니다. 이는 AI 감시 도구가 재생산 건강권 관련 극도로 민감한 사건에도 신속하게 도입되고 있음을 보여주며, Flock CEO는 계속해서 사건을 왜곡해 논란이 되고 있습니다.
미국 경찰 기술 기업 플록(Flock)이 경찰의 자동 번호판 인식 시스템 악용(스토킹 등)을 막겠다며 새 정책을 발표했지만, 사건번호 검증 없음 등 허점이 크다. 저자는 범죄 해결에 기술이 쓰이는 것 자체가 아니라 안보와 시민 자유 간 거래 조건을 기업이 일방적으로 설계했다는 점이 핵심 문제라고 지적한다. 앰버 얼럿 등 비상 상황에만 데이터 접근을 허용하는 등 대안적 설계가 가능하다고 제안한다.
미국 전역의 여러 도시가 기존의 Flock 자동 번호판 인식 카메라(ALPR)를 폐기하고, 경찰 장비 대기업인 Axon의 시스템으로 전면 교체하고 있습니다. 이는 Flock의 전국 데이터 조회 기능으로 인한 프라이버시 침해 논란과 연방 이민세관단속국(ICE)과의 데이터 공유 등에 대한 반발 때문인 것으로 분석됩니다. 카메라 자체를 없애기보다는 비교적 덜 논란이 된 Axon과 같은 대안업체로 갈아타는 추세는 ALPR 시장의 새로운 판도를 제시하고 있습니다.
미국 플로리다주에서 경찰의 얼굴 인식 시스템(FACES)의 오류로 인해 300마일 이상 떨어진 곳에 거주하던 남성이 아동 유인 범죄 혐의로 억울하게 체포되는 사건이 발생했습니다. 이 사건은 알고리즘이 제시하는 수치가 동일인물일 확률이 아닌 단순한 외모 유사도에 불과하다는 점을 간과한 채 과도하게 기술에 의존한 경찰의 수사 실패를 명확히 보여줍니다. 미국자유연맹(ACLU)은 관할 경찰관과 보안관 등을 상대로 손해배상 청구 소송을 제기하며 인권 침해와 경찰 시스템의 문제점을 고발하고 있습니다.
미국 애틀랜타 교외 던우디시에서 감시 기업 플록(Flock) 직원들이 아동 체육실, 유대인 커뮤니티 센터 등 민감한 장소의 카메라에 접근해 전국 경찰을 대상으로 제품 영업 데모를 진행한 사실이 뒤늦게 밝혀졌습니다. 주민들의 거센 반발과 프라이버시 침해 논란에도 불구하고, 플록 측은 사과와 함께 재발 방지를 약속했고 해당 시는 결국 플록과의 감시 시스템 계약을 그대로 갱신했습니다. 이 사건은 공공 및 민간 영역을 포괄하는 감시 카메라 기업의 데이터 접근 권한과 프라이버시 보장 문제가 얼마나 취약한지를 보여주는 중요한 사례입니다.